IA en Colombia: ¿una ley prematura? *

En medio del afán regulatorio que ha invadido las distintas jurisdicciones en materia de IA, en Colombia los ministerios de Ciencia y de las TIC radicaron ante el Congreso un proyecto de ley orientado a regular esa tecnología, con el propósito de garantizar su desarrollo ético y responsable.

La iniciativa revive un texto que naufragó en junio pasado, al vencerse el periodo del Congreso sin ser votado en primer debate, y coincide con la decisión de la Unión Europea, cuya ley le sirvió de modelo, de aplazar hasta diciembre de 2027 las obligaciones que su reglamento impone a los sistemas de alto riesgo; los que involucran empleo, crédito, educación, salud o seguridad y que tienen las exigencias más estrictas.

El proyecto, en la misma línea de la ley europea, clasifica los sistemas de inteligencia artificial en cuatro niveles según su "potencial impacto y peligrosidad".

Los prohibidos no pueden desarrollarse ni operar en el país; los de alto riesgo deben superar requisitos estrictos antes de salir al mercado (calidad de datos, supervisión humana y evaluación de impacto sobre derechos fundamentales); los de riesgo limitado solo deben cumplir deberes de transparencia, como advertir al usuario que interactúa con una máquina; y los de bajo riesgo se rigen apenas por principios de ética y buenas prácticas.

No obstante sus buenas intenciones, el proyecto ha sido duramente cuestionado, y los reparos de mayor peso vienen de académicos y especialistas de gran nivel,

El profesor Luis Antonio Orozco, de la Universidad Externado, resume las críticas al proyecto cuando afirma que su el texto es un “copy paste” del reglamento europeo, un traje cortado a la medida de otro, adoptado sin la preparación ni la capacidad institucional que exige.

Por su parte la profesora británica Lilian Edwards, ha criticado la clasificación de los niveles de riesgo del sistema Europeo, que fue copiado por el proyecto, y lo la ha calificado como ilusoria y arbitraria, porque las normas no fijan criterios claros y verificables para decidir en qué nivel queda cada sistema.

Otro reparo al proyecto recae en la entidad encargada de velar por la aplicación de la ley de IA y, en particular, en si esa autoridad cuenta con los equipos técnicos necesarios para cumplir esa función.

La mesa de expertos coordinada en la Universidad de los Andes por el profesor Juan David Gutiérrez, doctor de Oxford, concluyó por amplio consenso que el Ministerio de Ciencia no debería asumir esa tarea, pues se requiere un ente autónomo, técnico y especializado, ajeno a la coyuntura política.

Pero antes de adoptar cualquier regulación, y más aún una copiada de otras latitudes, países como Colombia deberían sopesar con cuidado cuáles son las implicaciones de acoger esas normas y de trasplantarlas, sin beneficio de inventario, desde realidades ajenas. Regular sin rigor y sin ponderar las consecuencias puede convertirse en una barrera de acceso al uso de herramientas socialmente valiosas, lo que conlleva el riesgo de ampliar la brecha tecnológica que separa a nuestros países de los desarrollados.

La otra cara de la moneda es que no regular en absoluto puede dejar sin control una tecnología que encierra serios peligros y amenazas, y que está llamada a transformarlo todo.

Nuestras condiciones son más precarias y, es preciso analizar con que capacidades técnicas contamos para aplicar una regulación de este calado. De nada sirve una ley ambiciosa si el Estado no tiene cómo hacerla cumplir.

Quizá lo único exigible por ahora sea algunos principios básicos para el uso de estas herramientas —la transparencia a la cabeza—. Sobre ese piso mínimo podrá construirse luego una regulación seria que no limite el acceso a estas tecnologías.